- Een door AI-software gegenereerde afbeelding van een rat met een gigantisch geslachtsdeel deed vorige maand de ronde op het internet.
- Het diagram waar de afbeelding deel van uitmaakte, was onderdeel van een inmiddels teruggetrokken artikel dat werd gepubliceerd in een wetenschappelijke uitgave.
- De rat staat symbool voor de golf van neponderzoeken in dubieuze wetenschappelijke tijdschriften, die opbloeien door de enorme publicatiedruk voor onderzoekers.
- Lees ook: AI gaat niet zomaar alle lastige problemen oplossen, zegt Bill Gates
Je hoeft geen wetenschapper te zijn om te weten dat ratten niet rondlopen met enorme penissen, of dat woorden zoals ’testtomcels’, ‘retat’, en ‘dissilced’ niet bestaan. Maar toch verschenen al deze dingen in een wetenschappelijk artikel dat vorige maand werd gepubliceerd in het tijdschrift ‘Frontiers in Cell Development and Biology‘.
De publicatie werd al snel teruggetrokken, maar de schade was niettemin fors. De rat was een groot succes op het internet en heeft inmiddels zelfs zijn eigen pagina op Know Your Meme.
Maar de rat is slechts een symptoom van een groeiende onderliggende crisis van nepwetenschap.
"Als je voor het eerst een vreemd artikel onder ogen krijgt, kan ik begrijpen waarom zo'n publicatie de aandacht trekt", vertelt mede-oprichter Ivan Oransky van de website Retraction Watch, die wetenschappelijke publicaties controleert, aan Business Insider. Voor hemzelf is eerder sprake van "een geestdodende routine", als het gaat om de stroom van dubieuze publicaties.
Hoe slechte wetenschap en AI-hallucinaties in wetenschappelijke tijdschriften belanden
Frontiers is een invloedrijke publicatie waar er met het zogenaamde 'peer review' proces gewerkt wordt. Dat wil zeggen dat collega-wetenschappers het ingeleverde onderzoek controleren voordat het gepubliceerd kan worden. Maar als dat gebeurt, hoe kan het dan dat dit onderzoek is gepubliceerd?
Hoewel peer review doorgaans goed werkt en het proces uit meerdere controlelagen bestaat, is er altijd een kleine kans dat slecht of neponderzoek erdoor glipt. Iets wat helaas steeds vaker gebeurt, omdat er verschillende aanbieders zijn die kant en klare onderzoeken verkopen aan wetenschappers.
En de tussenkomst van AI-technologie hierin is ook niet nieuw. In 2014 trokken uitgevers Springer en IEEE meer dan 120 artikelen terug die door computers gegenereerd waren. Springer Nature trok in 2021 nog eens 44 slechte artikelen terug.
Neponderzoek kan ook gepubliceerd worden als redacteuren worden omgekocht, data wordt vervalst of als afbeeldingen of data worden gemanipuleerd.
Dit soort publicaties kan ernstige gevolgen hebben. Zo suggereerde onderzoek dat het medicijn Ivermectin een mogelijk middel tegen COVID-19 was. Later werd die claim ingetrokken, omdat er mogelijk fraude was gepleegd in het onderzoek. Ondertussen lag de informatie al op straat en begonnen mensen zichzelf het medicijn toe te dienen.
Dit soort neponderzoeken kan zelfs in medische databases opgenomen en daardoor later ingezet worden in nieuwe onderzoeken, meldde The Guardian.
De mysterieuze zaak van de 'retat' 'dck'
Volgens Frontiers hadden controlerende onderzoekers hun opmerkingen over de afbeelding van de rat met de 'testtomcels' aangekaart. Ze vroegen of de schrijvers van het onderzoek dit wilden aanpassen.
"Het artikel glipte door de controle waarbij wordt gekeken of de schrijver zich aan de voorwaarden heeft gehouden, waarbij normaliter alle opmerkingen van reviewers worden geadresseerd", schrijft hoofdredacteur Fred Fenter van Frontiers in een email aan Business Insider. Hij noemt dit geval een "menselijke fout."
Fenter stelt dat Frontiers "nieuwe checks heeft toegevoegd om dit soort missers te vangen", en het beleid omtrent AI-gebruik heeft aangepast. Hierdoor moet duidelijk zijn wat wel en niet mag. De publicatie is daarnaast bezig met de ontwikkeling van een "AI die AI-gegenereerde content een afbeeldingen kan detecteren."
"De misbruikers van AI in de wetenschap zullen beter en beter worden, dus wij moeten ook continu verbeteren. Het is vergelijkbaar aan cybersecurity waarbij je steeds beter moet worden om de nieuwe trucjes van hackers tegen te kunnen gaan", schrijft Fenter.
Hoewel Frontiers in januari aankondigde dat het 600 mensen ging ontslaan, moet dit volgens de hoofdredacteur niet ten koste van de kwaliteit gaan. "Onze hoogste prioriteit is kwaliteit. En de recente herstructurering heeft geen gevolgen voor het peer review proces en de controle op de auteurs."
Waarom wetenschappers neponderzoeken publiceren
Uitgevers zijn bedrijven en wetenschappers willen carrière maken. Beide staan onder druk om veel te publiceren.
De status van wetenschappers wordt veelal beoordeeld op de hoeveelheid onderzoeken die ze hebben uitgebracht, zegt Oransky. Daarbij wordt ook gekeken naar waar ze zijn gepubliceerd en hoeveel andere wetenschappers naar deze onderzoeken verwijzen.
"Mensen doen er alles aan om publicaties te krijgen om daarmee hun baan te behouden of een promotie te krijgen", zegt Oransky. "Dat is het echte probleem."
Vorig jaar werden er meer dan 10.000 wetenschappelijke artikelen teruggetrokken. Meer dan ooit eerder, blijkt uit een rapport in Nature. Hoewel de rectificaties bedoeld zijn om fouten te herstellen of ondeugdelijke onderzoeken te corrigeren, gaat de toename van het aantal terugtrekkingen wel hand in hand met het toenemende gebruik van AI om artikelen te genereren.
"De afbeelding van de rat en z'n 'dck' trekken de aandacht, maar er is eigenlijk helemaal niets nieuws aan", zegt Oransky. De kern van de zaak is wat hem betreft dat wetenschappers beoordeeld moeten worden op de kwaliteit van hun werk in plaats van de hoeveelheid.
"Wat we moeten doen is ophouden met publicaties en verwijzingen als maatstaf voor alles te gebruiken", zegt Oransky. "Dat is allemaal te vervalsen." De waarde van een goed artikel moet veel meer erkenning krijgen.